読書メモ | 『測度論からの数理統計学』
『測度論からの数理統計学』
定義1.1 完全加法族
可測空間$ (\Omega,\mathcal F)にて、$ \mathcal Fの元を$ \mathcal F-可測集合と呼ぶ
特に確率空間のとき、測度空間の台集合$ \Omegaを標本空間、$ \mathcal F-可測集合を$ \mathcal Fの事象と呼ぶ
$ \Omega\setminus Aを$ Aの余事象と呼ぶ
$ \bigcup_{n\in\N}A_nを$ A_\bulletの和事象という
注意1.1(ii)
2025-02-01 16:54:28 $ Xの完全加法族全体の集合を$ \mathscr F_\Omegaとする
$ \Omegaの最大の完全加法族は$ 2^\Omega
離散位相と等しいtakker.icon
証明
$ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega:\mathcal F\subseteq2^\Omega\in\mathscr F_\Omegaを示せばいい
$ 2^\Omega\in\mathscr F_\Omegaは定義より自明
$ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega:\mathcal F\subseteq2^\Omegaも……自明か
そもそも$ \mathcal F\in2^{2^\Omega}なんだし
$ \Omegaの最小の完全加法族は$ \{\varnothing,\Omega\}
密着位相と等しいtakker.icon
証明
$ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega:\{\varnothing,\Omega\}\subseteq\mathcal F\land\{\varnothing,\Omega\}\in\mathscr F_\Omegaを示せばいい
$ \{\varnothing,\Omega\}\in\mathscr F_\Omegaも例によって自明
$ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega:\{\varnothing,\Omega\}\subseteq\mathcal Fも自明じゃん
有限加法族(F3),(F6)から示せる
おわりtakker.icon
完全加法族の性質より$ \Omega,\varnothing\in\mathcal Fが常に成り立つ
特に確率空間のとき
$ \Omega:全事象
$ \varnothing:空事象
と呼ぶ
命題1.1(ii)
$ \forall A_\bullet:\N\to\mathcal F:\bigcap_{n\in\N}A_n\in\mathcal F
$ \bigcap_{n\in\N}A_nを$ A_\bulletの積事象と呼ぶ
証明
完全加法族(S3)を参照
定義1.2
$ \R^kに距離位相$ \mathcal Oを加えた位相空間$ (\R^k,\mathcal O)を用意する
位相がテキストに指定されていないが、距離位相であってるはずtakker.icon
$ \mathcal O\subseteq\mathcal B^kを満たす最小の完全加法族$ \mathcal B^k\in2^{2^\R}をBorel集合族と呼ぶ
この定義は一般的なものではないはずtakker.icon
一般的なBorel集合族の定義を調べる
https://ja.wikipedia.org/wiki/ボレル集合
$ X上のボレル集合体は、全ての開集合を含む最小の完全加法族である(全ての閉集合を含む最小の完全加法族でもある)。
てことは、位相空間$ (X,\mathcal O)上のBorel集合族$ \mathcal Bは
$ \mathcal B=\min\{\mathcal F\in2^{2^X}\mid\text{MS}(X,\mathcal F)\land\mathcal O\subseteq\mathcal F\}
$ \text{MS}(X,\mathcal F):\iff(X,\mathcal F)は可測空間である
記号がびみょいtakker.icon
$ Xの完全加法族全体の集合$ \mathscr F(X)を定義したほうが便利かな
$ \mathcal B=\min\{\mathcal F\in\mathscr F(X)|\mathcal O\subseteq\mathcal F\}と書ける
と表せるわけか
テキストの定義は一般的な定義だったようだtakker.icon
https://ja.wikipedia.org/wiki/ボレル集合#ボレル集合族の生成
定義1.3 測度
$ (\Omega,\mathcal F)を可測空間とする
以下を満たす$ P:\mathcal F\to\Rを確率測度と呼ぶ
(P1)非負性 $ \forall A\in\mathcal F:P(A)\ge0
(P2)完全加法性
(P3)正規性$ P(\Omega)=1
(P1),(P2)のみを満たすものを測度、(P3)を満たすものを確率測度と呼ぶ
$ (\Omega,\mathcal F,P)を測度空間と呼ぶ
特に、$ Pが確率測度ときは確率空間と呼ぶ
例1.4
可測空間$ (\R,\mathcal B_1)にて、$ P:\mathcal B_1\ni A\mapsto\int_A\llbracket0<t\le1\rrbracket\mathrm dt\in\Rとすると、$ Pは確率測度になる
$ \mathcal B_1は、$ \R^1に通常の位相を入れた位相空間上のBorel集合族
(P1)$ \forall t\in\R:\llbracket0<t\le1\rrbracket\ge0だから成立
(P2)$ \forall A:\N\to{\cal F}:
$ \forall i,j\in\N:A_i\cap A_j=\varnothing
$ \implies P\left(\bigcup_{n\in\N} A_n\right)=\int_{\bigcup_{n\in\N} A_n}\llbracket0<t\le1\rrbracket\mathrm dt
$ =\sum_{n\in\N}\int_{A_n}\llbracket0<t\le1\rrbracket\mathrm dt
$ \because\forall i,j\in\N:A_i\cap A_j=\varnothing
$ = \sum_{n\in\N}P(A_n)
$ \underline{\therefore\forall A:\N\to{\cal F}:(\forall i,j\in\N:A_i\cap A_j=\varnothing)\implies P\left(\bigcup_{i\in\N}A_i\right)=\sum_{i\in\N}P(A_i)\quad}_\blacksquare
(P3)$ P(\Omega)=\int_\Omega\llbracket0<t\le1\rrbracket\mathrm dt=\int_{]0,1]}\mathrm dt=1
命題1.2 確率測度の基本的性質
命題1.3 (確率測度の劣加法性)
任意の確率空間$ (\Omega,\mathcal F,P)にて、$ \forall A:\N\to\mathcal F:P(\bigcup_{n\in\N}A_n)\le\sum_{n\in\N}P(A_n)
命題1.4 (確率測度の連続性)
任意の確率空間$ (\Omega,\mathcal F,P)と$ \forall A:\N\to\mathcal Fにて
1. $ (\forall n\in\N:A_n\subseteq A_{n+1})\implies P(\lim_{n\to\infty}A_n)=\lim_{n\to\infty}P(A_n)
2. $ (\forall n\in\N:A_n\supseteq A_{n+1})\implies P(\lim_{n\to\infty}A_n)=\lim_{n\to\infty}P(A_n)
定義1.4 条件付き確率
命題1.5 条件付き確率は確率測度である
(P1)$ \because P(A|B)=\frac{P(A\cap B)}{P(B)}\ge0
(P2)$ \because\forall A:\N\to{\cal F}:
$ \forall i,j\in\N:A_i\cap A_j=\varnothing
$ \implies P\left(\bigcup_{i\in\N}A_i\middle|B\right)=\frac{P\left(\bigcup_{i\in\N}A_i\cap B\right)}{P(B)}
$ = \frac{\sum_{i\in\N}P(A_i\cap B)}{P(B)}
$ = \sum_{i\in\N}P(A_i|B)
(P3)$ \because P(\Omega|B)=\frac{P(\Omega\cap B)}{P(B)}=\frac{P(B)}{P(B)}=1
定義1.5 独立事象
命題1.6 条件付き確率と独立性の関係
定理1.1 Bayesの定理
問1.6
$ A_1:=\{R_1,R_2,R_3,W_1\}
$ A_2:=\{R_4,W_2,W_3\}
$ A_3:=\{R_5,R_6,W_4,W_5,W_6\}
無作為に$ A_\bulletを一つ選び、さらにその箱から2個無作為に取り出した結果、2つの$ R_\bulletを得た
このとき選んだ箱が$ A_1である確率を求める
解答
まず可測空間を定める
箱を1つ選ぶときの事象空間は$ 2^{\{A_1,A_2,A_3\}}でいい
ある箱を選び、さらにそこから2個取り出す事象をどう表現するか
とりあえず組にしてみるかtakker.icon
一番小さい事象を全部列挙してみる
$ A_1を選び、その中から$ R_1,W_1を取り出したことを$ (A_1,\{R_1,W_1\})と表現する
$ R_\bulletは区別できないので、$ R_\bulletのいずれかを取り出した状態を事象とする
$ \{(A_1,\{R_1,W_1\})\}\notin\mathcal Fとなる
$ \{(A_1, \{R_1,W_1\}),(A_1, \{R_2,W_1\}),(A_1, \{R_3,W_1\})\}
$ \{(A_1, \{R_1,R_2\}),(A_1, \{R_2,R_3\}),(A_1, \{R_3,R_1\})\}
$ \{(A_2, \{R_4,W_2\}),(A_2, \{R_4,W_3\})\}
$ \{(A_2, \{W_2,W_3\})\}
$ \{(A_3, \{R_5,R_6\})\}
$ \{(A_3, \{W_4,W_5\}),(A_3, \{W_5,W_6\}),(A_3, \{W_6,W_4\})\}
$ \{(A_3, \{R_5,W_4\}),(A_3, \{R_6,W_4\}),(A_3, \{R_5,W_5\}),(A_3, \{R_6,W_5\}),(A_3, \{R_5,W_6\}),(A_3, \{R_6,W_6\})\}
これらの和集合を$ \Omega、これらを含む完全加法族を$ \mathcal Fとする
$ R_\bulletを2つ得る集合を$ Yとすると、
$ Y=\{(A_1, \{R_1,R_2\}),(A_1, \{R_2,R_3\}),(A_1, \{R_3,R_1\}),(A_3, \{R_5,R_6\})\}
$ |Y|=4
$ A_1を選ぶ集合を$ Xとすると
$ X=\{(A_1, \{R_1,W_1\}),(A_1, \{R_2,W_1\}),(A_1, \{R_3,W_1\}),(A_1, \{R_1,R_2\}),(A_1, \{R_2,R_3\}),(A_1, \{R_3,R_1\})\}
$ |X|=6
求める確率は$ P(X|Y)となる
$ \therefore P(X|Y)=\frac{P(X\cap Y)}{P(Y)}
$ = \frac{|X\cap Y|}{|Y|}
$ \underline{= \frac{3}{4}\quad}_\blacksquare
こんなかんじでいいのかな?takker.icon
2025-02-06 14:17:42 間違ってた!
どこで間違えた?
章末問題1
✅️1.1 $ \Omega:=\{1,2,3,4\},\mathcal F:=\{\varnothing,\{1\},\{2,3\},\{4\},\{1,2,3\},\{2,3,4\},\{1,4\},\Omega\}とする
1. $ (\Omega,\mathcal F)が可測空間になることを示す
(F1)$ \varnothing,\Omega\in\mathcal F
(F2)すべての元$ F_1,F_2\in\mathcal Fの$ \capを考える
$ \{1\}\cap\varnothing=\varnothing\in\mathcal F
$ \{1\}\cap\{2,3\}=\varnothing\in\mathcal F
$ \{1\}\cap\{4\}=\varnothing\in\mathcal F
$ \{1\}\cap\{1,2,3\}=\{1\}\in\mathcal F
$ \{1\}\cap\{2,3,4\}=\varnothing\in\mathcal F
$ \{1\}\cap\{1,4\}=\{1\}\in\mathcal F
$ \{1\}\cap\Omega=\{1\}\in\mathcal F
$ \{2,3\}\cap\varnothing=\varnothing\in\mathcal F
$ \{2,3\}\cap\{4\}=\varnothing\in\mathcal F
$ \{2,3\}\cap\{1,2,3\}=\{2,3\}\in\mathcal F
$ \{2,3\}\cap\{2,3,4\}=\{2,3\}\in\mathcal F
$ \{2,3\}\cap\{1,4\}=\varnothing\in\mathcal F
$ \{2,3\}\cap\Omega=\{2,3\}\in\mathcal F
$ \{4\}\cap\varnothing=\varnothing\in\mathcal F
$ \{4\}\cap\{1,2,3\}=\varnothing\in\mathcal F
$ \{4\}\cap\{2,3,4\}=\varnothing\in\mathcal F
$ \{4\}\cap\{1,4\}=\{4\}\in\mathcal F
$ \{4\}\cap\Omega=\{4\}\in\mathcal F
$ \{1,2,3\}\cap\varnothing=\varnothing\in\mathcal F
$ \{1,2,3\}\cap\{2,3,4\}=\{2,3\}\in\mathcal F
$ \{1,2,3\}\cap\{1,4\}=\{1\}\in\mathcal F
$ \{1,2,3\}\cap\Omega=\{1,2,3\}\in\mathcal F
$ \{2,3,4\}\cap\varnothing=\varnothing\in\mathcal F
$ \{2,3,4\}\cap\{1,4\}=\{4\}\in\mathcal F
$ \{2,3,4\}\cap\Omega=\{2,3,4\}\in\mathcal F
$ \{1,4\}\cap\varnothing=\varnothing\in\mathcal F
$ \{1,4\}\cap\Omega=\{1,4\}\in\mathcal F
以上で示された
(F3)めんどい!takker.icon
$ \mathcal F\subseteq2^\Omegaと$ \Omegaが有限集合であることから示せたってことにしよう
2. $ P(\{1\}):=\frac12,P(\{2,3\}):=\frac13,P(\{4\}):=\frac16としたとき、$ (\Omega,\mathcal F,P)が確率空間になることを示す
非負性は問題なし
$ P(\Omega)=P(\{1\})+P(\{2,3\})+P(\{4\})=1だからこれ問題ない
よって$ Pを確率測度とみなせる
3.
$ P(\{1,2,3\})=P(\{1\})+P(\{2,3\})=\frac56
$ P(\{2,3,4\})=P(\{2,3\})+P(\{4\})=\frac12
$ P(\{1,4\})=P(\{1\})+P(\{4\})=\frac23
1.2
1. $ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega\forall A,B\in\mathcal F:P(A\cap B)\le\frac12(P(A)+P(B))\le P(A\cup B)を示す
$ \mathscr F_\Omega:$ \Omegaの完全加法族全体の集合
2. 1.の$ \leの等号成立条件は$ P(A\Delta B)=0であることを示す
1.3 $ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega\forall A,B\in\mathcal F: P(A\cap B)=P(A)P(B)\iff P((\Omega\setminus A)\cap(\Omega\setminus B))=P(\Omega\setminus A)P(\Omega\setminus B)を示す
1.4 $ \forall\Omega\forall\mathcal F\in\mathscr F_\Omega\forall A,B,C\in\mathcal F:P(C)>0\land P(B\cap C)>0\implies P(A\cap B\cap C)=P(C)P(B|C)P(A|B\cap C)を示す
第2章 確率変数
定義2.1
1. 任意の可測空間$ (\Omega,\mathcal F) と$ (\Omega,\mathcal F)から$ (\R,\mathcal B)への可測写像$ X:\Omega\to\Rにて、以下を満たすものを確率変数と呼ぶ
$ \forall x\in\R:X^\gets(\R_{\le x})\in\mathcal F
これは可測写像の定義から導けそうtakker.icon
$ X が確率変数であるとき、$ X^\gets(\R_{\le x})はBorel可測(Borel measurable)であるという
2. 累積分布函数
定義2.2
$ (\Omega,\mathcal F,P)を確率空間、$ X:\Omega\to\Rを確率変数とする
1. $ Xは離散型確率変数である$ :\iff\exist R\in2^\R:|R|\le\aleph_0\land P(X^\gets(R))=1
確率質量函数$ p_Xで累積分布函数$ F_Xを表せる
$ F_X=x\mapsto\sum_{t\le x\land } p_X(t)
いやちょっとむずいかtakker.icon
2. $ Xは連続型確率変数である$ :\iff F_Xは連続写像である
確率密度函数
2.2 確率ベクトル
定義2.3
任意の可測空間$ (\Omega,\mathcal F)にて、$ \bm{X}:\Omega\to\R^2が以下を満たすとき、$ \bm{X}を$ (\Omega,\mathcal F)上の2次元確率vectorと呼ぶ
$ \forall(x,y)\in\R^2:\bm X^\gets(\R_{\le x}\times\R_{\le y})\in\mathcal F
確率変数の定義を多次元に拡張したものtakker.icon
n次元の確率vectorも同様に定義される
任意の可測空間$ (\Omega,\mathcal F)と$ k次元確率vector$ \bm{X}:\Omega\to\R^kにて、
$ F_{\bm{X}}:\R^k\ni \bm x\mapsto P(\bm{X}^\gets(\prod_{0<i\le k}\R_{\le x_i}))\in[0,1]
を$ \bm{X}の同時分布函数と呼ぶ
累積分布函数の多次元版takker.icon
同時確率質量函数
同時確率密度函数
$ F_{\bm X}(\bm x)=\int_{-\infty}^{x_i}f_{\bm X}(\bm y)\mathrm dy_iを満たす$ f_{\bm X}を$ \bm Xの同時確率密度函数と呼ぶ
定理2.4
2.4 統計量
定義2.9
$ \forall n\in\N\forall\Omega\forall\mathcal F\in\mathscr F_\Omega\forall k\le nと確率vector$ \Omega\to\R^nの集合$ \mathcal Xにて、$ \mathcal B_k\subseteq{\bm{T}^\gets}^\gets(\mathcal B_{\mathcal X})を満たす$ \bm T:\mathcal X\to\R^kを$ k次元統計量と呼ぶ
$ \mathcal B_k:$ \R^kに距離位相を加えた位相空間上のBorel集合族
$ \mathcal B_{\mathcal X}:$ \mathcal Xに距離位相を加えた位相空間上のBorel集合族
また確率vector$ \bm X:\Omega\to\R^nを代入した$ \bm{T}(\bm X)を$ \bm Xに基づく統計量と呼ぶ
テキストだと統計量の引数は$ \R^nになってしまっているが、確率vectorは函数なので、函数の函数にする必要があるはず
#2025-07-14 10:26:04
#2025-02-06 13:16:02
#2025-02-01 16:53:58
#2025-01-31 12:12:01